Компания NVIDIA объявила о доступности облачного сервиса DGX Cloud, предназначенного для обучения сложных моделей для генеративного ИИ и других приложений. Инфраструктура вычислительной платформы расположена в США и Великобритании.

Сервис DGX Cloud был анонсирован в марте нынешнего года. Эта ИИ-платформа предоставляет предприятиям доступ к инфраструктуре и сопутствующему ПО для решения ресурсоёмких задач. Каждый экземпляр DGX Cloud оснащен восемью ускорителями NVIDIA. Инстансы могут объединяться в кластеры и управлять всем комплексом посредством NVIDIA Base Command Platform. Говорится, что на сегодняшний день тысячи ускорителей NVIDIA включены в состав Oracle Cloud Infrastructure (OCI).

Источник изображения: NVIDIA

Доступ к облачному ИИ-суперкомпьютеру клиенты могут получить через браузер. Стоимость инстансов DGX Cloud начинается с $36 999 в месяц. Заказчикам доступно ПО NVIDIA AI Enterprise — набор специализированных ИИ-инструментов, который упрощает разработку, внедрение и управление жизненным циклом ИИ-моделей.

Ситуация с неплатежами Twitter за облачные сервисы постепенно превращается в комедию. Как сообщает DataCenter Dynamics, вслед за AWS и Google Cloud, социальная сеть перестала платить и облаку Oracle. Это может осложнить дружеские отношения владельца Twitter Илона Маска (Elon Musk) с основателем Oracle Ларри Эллисоном (Larry Ellison), который инвестировал в Twitter $1 млрд.

В своём стремлении оптимизировать расходы Twitter, Илон Маск идёт на отчаянные меры, не встречающие понимания его контрагентов. Как известно, ещё в марте возник скандал между Twitter и Amazon Web Services (AWS), с 2020 года предоставляющей услуги социальной сети. Соцсеть отказывалась рассчитываться с облачным провайдером за оказанные услуги, но после того, как AWS пригрозила прекратить платить за рекламу в Twitter, ситуация с платежами начала налаживаться.

Источник изображения: Oracle

Не лучше сложилась обстановка и с Google Cloud Platfotm, поскольку продолжавшиеся неплатежи вынудили Google искать контакты с Маском через руководство SpaceX, с которой облачный сервис тоже сотрудничает. К счастью для Маска, ситуация разрешилась с приходом на пост генерального директора Twitter Линды Яккарино (Linda Yaccarino), напрямую договорившейся с главой Google Cloud Томасом Курианом (Thomas Kurian) о расчётах и новых направлениях сотрудничества. Маск якобы пытался шантажировать Google Cloud, желая перезаключить договор об обслуживании на более выгодных условиях.

Миллиардер оптимизирует не только облачные, но и локальные расходы. Известно, что он закрыл один из трёх ЦОД Twitter, который в итоге перешёл Tesla, а также уволил массу IT-специалистов. Это поставило под вопрос работу одной из крупнейших в мире социальных сетей. Сейчас, по слухам, представители Oracle ищут прямые контакты с действующими и бывшими сотрудниками Twitter, желая собрать счета-фактуры с просроченной оплатой.

Как сообщает ресурс DCD, Google на этой неделе направила в Федеральную торговую комиссию (FTC) письмо в рамках проводимого регулятором расследования в облачном секторе, в котором обвинила Microsoft и Oracle в антиконкурентной практике в отношении своего облачного бизнеса и лицензирования ПО и предоставила подробное описание предполагаемых нарушений.

Изображение: Twitter / looper

В марте FTC отправила запрос участникам рынка на получение информации о деловой практике поставщиков облачных услуг. Ожидается, что предоставленные компаниями комментарии помогут комиссии определить, насколько некоторые сегменты экономики зависят от облачных сервисов, а также риски безопасности, связанные с их деятельностью. Крайний срок подачи комментариев истёк на этой неделе. Всего было получено более 90 комментариев.

В частности, FTC хотела бы получить оценку способности клиентов облачных сервисов заключать контракты с облачными провайдерами, описание стимулов, которые провайдеры предлагают клиентам для получения доли рынка, а также узнать, насколько клиенты зависят от проприетарных услуг и в какой мере поставщики облачных услуг информируют клиентов о рисках безопасности.

«Google Cloud… разделяет обеспокоенность, которую высказывали многие другие, в том числе клиенты и партнёры, что условия лицензирования, применяемые Microsoft, Oracle и другими поставщиками устаревшего локального ПО, искажают конкуренцию в облаке», — говорится в 11-страничном письме Google, направленном в FTC. Google отметила, что, используя чрезмерно сложные соглашения, направленные на привязку клиентов к их экосистемам, эти провайдеры пытаются монополизировать облачный рынок.

Источник: Synergy Research Group

«При этом они не только подталкивают клиентов к монолитной облачной модели, но и ограничивают выбор, увеличивают затраты для клиентов и подрывают растущие и процветающие цифровые экосистемы в США и во всем мире», — подчеркнула Google. Google и раньше обвиняла Microsoft в «ограничительном и дискриминационном лицензировании и других вредных действиях», таких как ограничение совместимости определённых функций и ПО с облачной инфраструктурой, отличной от Azure.

Oracle, в свою очередь, письме обвинила AWS в использовании «хищнических методов выставления оплаты для исключения конкуренции» и в том, что она является «злейшим нарушителем» в отношении стоимости отдачи данных из облака. Oracle также предложила FTC «тщательно расследовать», использует ли Amazon свою монопольную позицию в космической индустрии.

AWS, бессменный лидер рынка, не стала критиковать конкурентов, а вместо этого отметила их быстрый рост в последние годы. «Ни у одного облачного провайдера нет ничего близкого к “монополии”, и отрасль становится всё менее концентрированной», — заявили в компании. Фонд Electronic Frontier Foundation (EFF) отметил «доминирующую» роль AWS на рынке облачных услуг, назвав компанию «несущей стеной интернета».

Источник: Synergy Research Group

Microsoft, занимающая второе место на рынке, тоже отметила существующую конкуренцию в облачной индустрии и заявила, что регулирующие органы должны «тщательно избегать любого вмешательства, которое может нарушить конкурентные предложения», предоставляемые отраслью. По данным Canalys, на долю AWS и Microsoft Azure в I квартале 2023 года пришлось более половины всех затрат на облачные услуги в мире.

Ассоциация европейских поставщиков облачных сервисов CISPE (Cloud Infrastructure Services Providers in Europe), которую поддерживает AWS, но не Microsoft, отметила в письме регулятору, что компании в Европе вынуждены платить «несправедливые дополнительные расходы» за лицензирование ПО в облачной инфраструктуре, предоставляемом независимыми поставщиками услуг облачной инфраструктуры, указав в качестве примера на Microsoft.

При этом в Европе неоднократные попытки избавиться от «облачного ига» американских гиперскейлеров успехом не увенчались, с годами их лидерство лишь стремительно укрепляется. Наконец, некоммерческий исследовательский центр EPIC (Electronic Privacy Information Center) предупредил в своём письме FTC, что на рынке ИИ основная доля сконцентрирована у небольшого числа провайдеров.

Источник: Synergy Research Group

Как отметил DCD, аналогичное расследование может начаться в Великобритании, поскольку британский регулятор в секторе телекоммуникаций Office of Communications (Ofcom) недавно предложил Управлению по конкуренции и рынкам (CMA) изучить рынок облачной инфраструктуры, чтобы выяснить, необходимо ли регулирование для улучшения конкуренции.

Oracle объявила о запуске облачного сервиса EU Sovereign Cloud, предназначенного для Европейского союза (ЕС). Новый сервис призван обеспечить организациям ЕС больший контроль над выполнением требований к конфиденциальности и суверенности данных. Oracle подчеркнула, что новый сервис расположен в ЕС, поддерживается персоналом из ЕС и управляется принадлежащими Oracle юридическими лицами, зарегистрированными в ЕС.

В EU Sovereign Cloud используется облачная архитектура, физически и логически отделённая от коммерческих и государственных облачных регионов Oracle, в том числе в Европе. В настоящее время платформа включает два облачных региона (по три зоны в кажлом) — во Франкфурте (Германия) на базе ЦОД Equinix и в Мадриде (Испания) на базе ЦОД Digital Realty. Компания заявила, что деятельность регионов ведётся в соответствии с правилами и рекомендациями ЕС, которые ограничивают передачу данных за пределы ЕС, например, в соответствии с постановлением Европейского суда и решениями Европейского совета по защите данных.

Источник изображения: Oracle

Следует отметить, что Microsoft запустила в 2022 году сервис Cloud for Sovereignty, нацеленный на госсектор в ЕС. Google предлагает подобные услуги через партнёрства с местными игроками, такими как T-Sytems Deutsche Telekom в Германии, Thales во Франции и Proximus в Бельгии и Люксембурге. AWS же называет суверенное облако «маркетинговым термином больше, чем что-либо ещё», подразумевая, что существующие средства контроля уже обеспечивают конфиденциальность и защиту данных в соответствии с законодательством ЕС. Вместе с тем ранее AWS выступила с заявлением о цифровом суверенитете, закрепив свои обязательства в отношении защиты данных клиентов в Европе.

Компания Oracle объявила о планах обновить инстансы Oracle Cloud Infrastructure E5, оснастив их процессорами AMD EPYC Genoa. Компания сообщила, что предложит гибкие конфигурации инстансов, позволяя клиентам подбирать параметры под их нужды. Новинки, по словам Oracle, при той же стоимости на треть быстрее инстансов прошлого поколения, а также предлагают большее количество ядер и более высокую ПСП.

Так, инстансы E5 Standard предназначены для нетребовательных задач, таких как веб-серверы и серверы приложений или разработка ПО. Будут доступны bare-metal и спот-инстансы. E5 Standard используют внешнее блочное хранилище, которое работает медленнее локального, но вместе с тем дешевле. Высокопроизводительные E5 Dense-IO ориентированы на крупные СУБД, Big Data и приложения, которым требуется быстрое локальное хранилище, которое обеспечивает примерно в 10 раз меньшую задержку, чем стандартное блочное хранилище.

Экземпляры E5 HPC созданы для высокопроизводительных вычислений, в том числе ИИ. E5 HPC доступны только в конфигурациях bare-metal и с RDMA-сетью, что позволяет формировать облачные суперкомпьютеры. Также для семейства E5 доступны кластерные ФС для таких сценариев использования, как большие базы данных, обучение ИИ, финансовый анализ, рендеринг видео и моделирование. Новые опции и конфигурации будут доступны в июле–августе.

Источник изображения: Oracle

В свою очередь облачный провайдер Amazon Web Services (AWS) запустил предварительную версию инстансов EC2 M7a с процессорами AMD EPYC Genoa, которые будут доступны для общего использования в III квартале этого года. По словам гендиректора Лизы Су (Lisa Su), AMD будет использовать новые инстансы AWS для собственных рабочих нагрузок. Кроме того, AWS присматривается и к новым ИИ-ускорителям AMD Instinct MI300.

Источник изображения: Microsoft

Наконец, в Microsoft Azure стали доступны первые инстансы с AMD EPYC Genoa-X и 400G-интерконнектом NVIDIA Quantum-2 InfiniBand. Как сообщает компания, виртуальные машины серий HBv4 и HX предлагают передовые уровни производительности, эффективности масштабирования и экономичности для различных HPC-нагрузок. Новинки уже доступны в регионе Azure East US, а вскоре появятся в регионах Azure Korea Central, Azure South Central US, Azure Sweden Central и Azure Southeast Asia.

Американская корпорация Oracle, являющаяся одним из крупнейших поставщиков ПО, а также провайдером облачных услуг, сообщила результаты работы за IV квартал и весь 2023 финансовый год, закончивший 31 мая. После оглашения отчёта и прогноза на следующий квартал акции компании выросли на 3 %.

Квартальная выручка Oracle выросла в годовом исчислении на 17 % до $13,84 млрд, что выше консенсунс-прогноза аналитиков, равного $13,74 млрд. Чистая прибыль (GAAP) за квартал достигла $3,32 млрд ($1,19 на акцию), что на 4 % больше по сравнению с $3,19 млрд ($1,16 на акцию) в аналогичном квартале прошлого года. Прибыль на акцию (Non-GAAP) составила $1,67, превысив целевой показатель Уолл-стрит в размере $1,58 на акцию.

Главным источником доходов компании в минувшем квартале были облачные услуги и лицензионная поддержка, которые принесли ей $9,37 млрд (рост в годовом исчислении 23 %), что составляет 68 % всей выручки. Вместе с тем доход от лицензирования облачных и локальных продуктов снизился на 15 % до $2,15 млрд.

Следует отметить значительный рост выручки от облачной инфраструктуры (IaaS), увеличившейся на 76 % до $1,47 млрд. Выручка облачного направления SaaS выросла на 45 % до $3,0 млрд. При этом сервисы Fusion ERP и NetSuite ERP принесли компании по $0,7 млрд, показав рост выручки на 26 % и 22 % соответственно. Продажи оборудования упали на 1 % до $850 млн.

Источник изображений: Oracle

Что касается показателей за весь 2023 финансовый год, то выручка компании выросла в годовом исчислении на 18 % до $49,95 млрд. Доходы от облачных услуг и поддержки лицензий выросли на 17 % до $35,3 млрд. Доходы от лицензирования облачных и локальных продуктов снизились на 2 % в до $5,8 млрд. В 2023 финансовом году приобретённая Oracle компания Cerner принесла ей $5,9 млрд дохода ($1,5 млрд за квартал).

Прогноз Oracle на I квартал 2024 финансового года также оптимистичный. Гендиректор Сафра Кац (Safra Catz) сообщила во время телефонной конференции, что она ожидает прибыль в размере от $1,12 до $1,16 на акцию при росте выручки от 8 до 10 %. В свою очередь, эксперты Уолл-стрит прогнозируют прибыль в I квартале в размере $1,14 на акцию при выручке в $12,34 млрд, что предполагает рост всего на 7,8 %.

В ходе телефонной конференции основатель, председатель правления и главный технический директор Oracle Ларри Эллисон (Larry Ellison) заявил, что компания вскоре представит новый облачный сервис на базе генеративного ИИ в партнёрстве со стартапом Cohere Inc., в который компания уже инвестировала. Новый сервис будет похожа на службу Microsoft Azure OpenAI, которая позволяет клиентам развёртывать большие языковые модели, реагирующие на запросы пользователя в диалоговом режиме.

Корпорация Oracle открыла облачный регион в Сербии. В церемонии запуска площадки участвовали премьер-министр республики и ряд других официальных лиц. Таким образом, Oracle стала первым крупным провайдером облачных услуг, развернувшим свой регион на территории этого государства. Oracle подписала Меморандум о взаимопонимании с правительством Сербии в октябре 2021 года.

Площадка расположена в Государственном центре обработки данных в Крагуеваце (Kragujevac). В рамках договора с местными властями Oracle арендовала площади для размещения серверов и СХД. Облачный регион предлагает услуги предприятиям и правительственным структурам, а также служит для хранения данных государственных органов Сербии.

Источник: Data Cloud Technology / Државни дата центар

Отмечается, что одним из первых клиентов нового облачного региона станет государственная телекоммуникационная компания Telekom Srbija, которая работает под брендом MTS (Mobilna Telefonija Srbije). Развёрнутый дата-центр объединяет два строения общей площадью приблизительно 14 тыс. м². ЦОД выполнен в соответствии со стандартом Tier IV — это самый высокий уровень на сегодняшний день. Создание этого дата-центра стоимостью €30 млн началось в 2019 году.

Microsoft и Oracle изучают возможность аренды серверов друг у друга на случай, если у них вдруг не будет хватать вычислительных мощностей для выполнения ИИ-нагрузок крупных облачных клиентов, пишет DataCenter Dynamics со ссылкой на The Information. Уточняется, что решение по сделке Oracle и Microsoft, которая позволила бы решить проблему нехватки серверов с высокопроизводительными ускорителями, пока не принято.

Компании заключили соглашение о сотрудничестве ещё в 2019 году, чтобы предоставить клиентам возможность совместно выполнять вычисления в их облачных сервисах. Это потребовало создания прямых оптоволоконных каналов между ЦОД Oracle и Microsoft. Сформированная инфраструктура может быть использована для совместного использования серверных мощностей, сообщил ресурсу The Information источник, знакомый с этим вопросом.

Microsoft уже некоторое время работает над собственным ИИ-чипами Athena, а пока вынуждена скупать ускорители NVIDIA, которых, судя по всему, ей уже не хватает. У Oracle тоже достаточно тесные отношения с NVIDIA — последняя выбрала именно облако Oracle Cloud Infrastructure (OCI) для первичного запуска сервиса DGX Cloud. Причём зарабатывает на этом сервисе в первую очередь сама NVIDIA.

Источник изображения: Microsoft

Ранее сообщалось, что Microsoft ограничивала доступ к ИИ-серверам для ряда своих внутренних команд, чтобы отдать ресурсы своим клиентам. Одна из таких компаний — OpenAI, разработавшая ИИ-чат-бот ChatGPT и нейронную сеть Dall-E. Microsoft инвестировала в OpenAI миллиарды долларов, получив взамен эксклюзивную лицензию на предоставление её услуг в облаке Azure. Как сообщают источники, Oracle выясняла, возможна ли перепродажа решений OpenAI напрямую её клиентам по аналогии с тем, как она перепродаёт пакет приложений Microsoft 365.

I квартал 2023 года Google Cloud Platform (GCP), облачное подразделение компании Google, входящей в холдинг Alphabet, впервые в истории закончило с прибылью, составившей $191 млн, в то время как годом ранее у него были квартальные убытки в размере $706 млн. Выручка Alphabet от облачных вычислений составила $7,4 млрд, что на $1,6 млрд больше прошлогоднего показателя и незначительно выше по сравнению с $7,32 млрд выручки в IV квартале 2022 года.

Это первая прибыль, опубликованная Google Cloud с тех пор, как компания начала отдельно учитвать облачный доход в общем объёме выручки. Подразделение Google Cloud, первоначально известное как App Engine, был запущено в 2008 году, то есть 15 лет назад. Впрочем, финансовый директор Рут Порат (Ruth Porat) отметил продолжающееся замедление роста расходов клиентов на облачные технологии в связи с неопределённой экономической обстановкой.

Источник изображения: Google

Alphabet также объявил о корректировке предыдущих результатов в связи с изменением способа распределения затрат, в связи с чем уменьшились ранее объявленные убытки. Уточнённые убытки GCP за 2022 год составили: в I квартале — $706 млн вместо ранее объявленных $931 млн; во II квартале — $590 млн вместо $858 млн; в III квартале — $440 млн вместо $699 млн; в IV квартале — $186 млн вместо $480 млн.

В целом выручка Alphabet составила $69,787 млрд (на $1 млрд или 2,6 % больше, чем в I квартале 2022 года), а прибыль — $15,05 млрд (снижение на $1,38 млрд или 8,5 %). Компания сообщила о сокращении амортизационных отчислений на $988 млн в результате изменения предполагаемого срока полезного использования серверов с 4 до 6 лет и части сетевого оборудования с 5 до 6 лет.

«Мы предпринимаем значительные многолетние усилия по экономии средств, например, по улучшению использования машин и поиску более масштабируемых и эффективных способов обучения и обслуживания моделей машинного обучения, — сказал Сундар Пичаи (Sundar Pichai), генеральный директор Alphabet. — Мы делаем наши ЦОД более эффективными, перераспределяя рабочие нагрузки и оборудование там, где серверы используются не полностью. Это важная работа, поскольку мы продолжаем вкладывать значительные средства в инфраструктуру, чтобы реализовать наши многочисленные возможности ИИ».

Источник изображения: Microsoft

У других крупных облачных провайдеров ситуация несколько иная. Так, выручка Microsoft от работы подразделения Intelligent Cloud, включающего Azure, составила в I квартале 2023 года $22,08 млрд, что больше прошлогоднего результата на 16 %. При этом выручка от серверных продуктов и облачных сервисов выросла на 17%, что, как сообщает компания, было обусловлено ростом доходов Azure и других облачных сервисов на 27 %. В предыдущем квартале выручка облачного подразделения Microsoft составила $21,51 млрд.

«Самые передовые в мире модели искусственного интеллекта объединяются с самым универсальным в мире пользовательским интерфейсом — естественным языком — для создания новой эры вычислений, — сказал Сатья Наделла (Satya Nadella), председатель и главный исполнительный директор Microsoft. — В Microsoft Cloud мы являемся предпочтительной платформой, помогающей клиентам получить максимальную отдачу от своих цифровых расходов и внедрять инновации для следующего поколения искусственного интеллекта».

«Сосредоточенная работа наших отделов продаж и партнёров в этой динамичной среде привела к тому, что доход Microsoft Cloud составил $28,5 млрд США, что на 22 % больше по сравнению с прошлым годом», — добавила Эми Худ (Amy Hood), исполнительный вице-президент и финансовый директор Microsoft. Общая выручка Microsoft за отчётный квартал равна $52,9 млрд, что на 7 % больше по сравнению с аналогичным периодом 2022 года. Операционная прибыль выросла на 10 % до $22,4 млрд, а чистая прибыль составила $18,3 млрд (рост 9 %).

Источник изображения: Oracle

В свою очередь Oracle в отчёте о результатах за III квартал 2023 финансового года, опубликованном в начале марта, сообщила о доходах от облачной инфраструктуры (IaaS) в размере $1,2 млрд, что на 55 % больше, чем в прошлом году. Всего выручка компании за квартал составила $12,4 млрд, что на 18 % больше по сравнению с прошлым годом. Операционная прибыль (GAAP) за третий квартал составила $3,3 млрд. Операционная прибыль (Non-GAAP) достигла $5,2 млрд, превысив прошлогодний показатель на 8 %.

Генеральный директор Oracle Сафра Катц (Safra Catz) заявила: «Значительный квартальный рост прибыли был обусловлен постоянным ростом на 48 % общего дохода от двух наших облачных подразделений, инфраструктуры и приложений. Годовой доход облачного бизнеса Oracle превышает $16 млрд. Наш технически продвинутый и высокодифференцированный инфраструктурный бизнес второго поколения продолжает находиться в фазе быстрого роста — на 65 % в III квартале в постоянной валюте».

Компания NVIDIA объявила о том, что облачная инфраструктура Oracle Cloud Infrastructure (OCI) начала внедрение DPU NVIDIA BlueField для высокопроизводительных вычислений. Это позволит снять нагрузку с CPU и повысить общую эффективность ЦОД. Кроме того, новинка нашла место в инфраструктуре Baidu, JD, Tencent, CoreWeave и Microsoft Azure.

Речь идёт о применении 400Gbe-модулей BlueField-3. Благодаря возможности обеспечить разгрузку, ускорение и изоляцию широкого спектра процессов в работе сети, СХД и решений по безопасности, DPU BlueField позволяют создать безопасную и ускоренную инфраструктуру для решения различных задач в любой среде — от облака и дата-центра до периферийных устройств. Именно эти DPU явяются одним из ключевых компонентов платформы NVIDIA DGX Cloud в OCI.

Источник изображения: NVIDIA

Благодаря BlueField-3, как отмечается, ресурсы CPU в дата-центрах могут быть перенаправлены на обработку бизнес-приложений. BlueField-3 трансформируют традиционные среды облачных вычислений в ускоренную, энергоэффективную и безопасную инфраструктуру для обработки ресурсоёмких рабочих нагрузок генеративного ИИ. Тесты показывают снижение энергопотребления до 24 % на серверах с DPU BlueField по сравнению с традиционными системами.

Источник изображения: NVIDIA

«DPU NVIDIA BlueField-3 являются ключевым компонентом нашей стратегии по созданию современной устойчивой облачной инфраструктуры с высочайшей производительностью», — отметил Клэй Магуирк (Clay Magouyrk), исполнительный вице-президент Oracle Cloud Infrastructure. Программный фреймворк NVIDIA DOCA позволяет разработчикам создавать инфраструктуры нового поколения для дата-центров, обеспечивая высокопроизводительные, программно-определяемые облачные сервисы с ускорением на основе DPU и высоким уровнем безопасности по модели Zero Trust.